OpenAI ve Anthropic AI Güvenlik Değerlendirmesinde İş Birliği Yaptı

OpenAI ve Anthropic, AI modellerinin ortak bir güvenlik incelemesini gerçekleştirerek dahili testlerin kaçırdığı kritik açıkları tespit etti. Büyük model güncellemeleri öncesinde yapılan bu iş birliği, sektörün şirketler arası hesap verebilirlik konusundaki artan vurgusunu vurgulamaktadır.

Rakip AI firmaları OpenAI ve Anthropic, ortak güvenlik zorluklarını ele almak için rekabeti bir kenara bıraktı. Karşılıklı değerlendirmeleri, GPT ve Claude modellerindeki halüsinasyon riskleri ve uyum başarısızlıkları dahil olmak üzere kör noktaları ortaya çıkardı. Bu benzeri görülmemiş iş birliği, AI sektöründe düzenleyici incelemeler yoğunlaşırken geldi.

Yaz boyu süren değerlendirme, her iki şirketin mevcut güvenlik protokollerindeki boşlukları ortaya koydu. Anthropic'ın incelemesi, OpenAI sistemlerindeki olası kötüye kullanım durumlarını işaretlerken, OpenAI da Claude modellerindeki talimatlara uyma zayıflıklarını belirledi. AI yetenekleri geliştikçe, bu tür iş birlikçi denetimler standart uygulama haline gelebilir.